Các nhà toán học luôn luôn thực hành toán học thực nghiệm. Các hồ sơ hiện có về toán học thuở ban đầu, như toán học Babylon, thường bao gồm các danh sách các ví dụ số minh họa các danh tính đại số. Tuy nhiên, toán học hiện đại, bắt đầu từ thế kỷ 17, đã phát triển một truyền thống xuất bản kết quả trong một bài thuyết trình cuối cùng, chính thức và trừu tượng. Các ví dụ bằng số có thể đã khiến một nhà toán học ban đầu xây dựng một định lý chung không được công bố và thường bị lãng quên.

Toán học thực nghiệm như một lĩnh vực nghiên cứu riêng biệt xuất hiện trở lại vào thế kỷ XX, khi phát minh ra máy tính điện tử làm tăng đáng kể phạm vi tính toán khả thi, với tốc độ và độ chính xác cao hơn nhiều so với bất kỳ thế hệ toán học nào trước đây. Một cột mốc quan trọng và thành tựu của toán học thực nghiệm là phát hiện vào năm 1995 của công thức Bailey-Borwein-Plouffe cho các chữ số nhị phân của π. Công thức này được phát hiện không phải bằng lý luận chính thức, mà thay vào đó là tìm kiếm bằng số trên máy tính; chỉ sau đó mới tìm ra một chứng minh đầy đủ.[2]